Phía nam của huyện giáp huyện Vũ Quang, phía bắc giáp các huyện Thanh Chương và Nam Đàn (tỉnh Nghệ An), phía tây giáp tỉnh Borikhamxay của Lào, phía đông giáp huyện Đức Thọ. Cách thủ đô Hà Nội, thành phố Vinh, thị xã Hồng Lĩnh và thành phố Hà Tĩnh lần lượt khoảng 365 km, 55 km, 35 km và 70 km.

• Địa hình đồi núi xen đồng bằng thung lũng sông Ngàn Phố, sông Ngàn Sâu và các phụ lưu, dốc từ tây - bắc xuống đông - nam, cao nhất là núi Bà Mụ (1.357 m) trên biên giới Việt Lào.
• Các dãy núi chính: dãy núi Giăng Màn (thuộc dãy Trường Sơn); núi Kim Sơn (rú Vằng); dãy núi Mồng Gà; dãy núi Thiên Nhận; núi Hoa Bảy,...